草庐IT

Python float - str - 浮点怪异

全部标签

c++ - 浮点值加倍和除法

我有一个函数,我相信它会将一个int转换为一个浮点值,并将其拆分为该值的符号指数和小数部分。使用IEEE754表示浮点值。unsignedtest(unsignedx){//splitthegivenbitsofsignexponentandfraction,combinetoreturnunsignedintsign=(x&0x80000000)>>31;unsignedintexpo=(x&0x7F800000)>>23;unsignedintfrac=(x&0x007fffff);return(sign但是我不确定如何从这个浮点表示中计算出减半或加倍的值。unsigneddoub

c++ - 在 C++ 中进行数学运算时,浮点错误如何传播?

假设我们声明了以下变量floata=1.2291;floatb=3.99;float变量的精度为6,这(如果我理解正确的话)意味着计算机实际存储的数字与您想要的实际数字之间的差异将小于10^-6这意味着a和b都有一些小于10^-6的误差所以在计算机内部a实际上可能是1.229100000012123而b可能是3.9900000191919现在假设您有以下代码floatc=0;for(inti=0;i我的问题是,c的最终结果是否也会有小于10^-6的精度误差?如果答案是否定的,我们如何才能真正知道这个精度误差,以及如果您应用任何类型的操作,按您希望的次数和以任何顺序到底会发生什么?

c++ - 浮点乘积扩展等价

在IEEE754float中,有可能a*(b-c)!=a*b-a*c//a,b,cdouble因此不能保证展开的产品与未展开的产品相等。但是这个呢:a*(b1+b2+...+bn)==a*b1+a*b2+...+a*bn//b1==b2==...==bn当所有b相等时,是否保证等价(在没有下溢/上溢的情况下)?如果b的相等性在编译时是否已知,是否有区别?编辑:它不是-参见EricPostpischil和PascalCuoq。但也许持有较弱的断言?:(1.0/n)*(b1+b2+...+bn)我只是想知道您是否可以保证数据集的平均值不超过某个值每个数据值也不超过,无论您如何计算平均值(先

c++ - 如何测试文件存储的浮点表示?

这个问题在这里已经有了答案:HowtocheckifC++compilerusesIEEE754floatingpointstandard(2个答案)关闭7年前。我已将科学数据转储到文件中。目前,我只是用与内存中相同的表示形式丢弃了它们。我已经记录了它们是IEEE754,但我希望在代码中声明这一点,这样如果它被移植到一个奇怪的架构并与我的文档分开(研究代码被传递)它会在编译时出错。目前我有static_assert(sizeof(double)==8),"message");有没有办法测试IEEE754?可以静态断言吗?

c++ - 高效的浮点比较(Cortex-A8)

有一个很大(~100000)的浮点点变量数组,并且有一个阈值(也是浮点点)。问题是我必须将数组中的每个变量与阈值进行比较,但NEON标志传输需要很长时间(根据分析器,大约20个周期)。是否有任何有效的方法来比较这些值?注意:由于舍入误差无关紧要,我尝试了以下操作:floatarr[10000];floatthreshold;....inta=arr[20];//e.g.intt=threshold;if(t>a){....}但在这种情况下,我得到以下处理器命令序列:vldr.32s0,[r0]vcvt.s32.f32s0,s0vmovr0,s0由于转换发生在NEON上,因此无论我是通过

C++ memcpy 从 c_str 到 char*

我已经做了一些基本的阅读,从我收集到的内容来看,.c_str()总是有一个空终止符。我有一个相当简单的C++程序:intmain(intargc,char**argv){std::stringfrom="hello";charto[20];memcpy(to,from.c_str(),strlen(from.c_str())+1);std::coutmemcpy是否会确保我将一个以null结尾的字符串复制到我的变量中(前提是我的字符串长度较短)? 最佳答案 您应该使用std::string来复制字符串。但是,如果你想那样做,你应该使

c++ - 没有将 bool 隐式转换为浮点类型的警告?

看起来这个片段在clang中编译时没有警告,即使使用了-Weverything:doublex;...if(fabs(x>1.0)){...}我错过了什么吗?还是编译器和C++标准认为将bool转换为double是有意义的? 最佳答案 这是使bool成为整数类型的结果。根据C++标准,第3.9.1.6节Valuesoftypeboolareeithertrueorfalse(Note:Therearenosigned,unsigned,short,orlongbooltypesorvalues.—endnote)Valuesofty

c++ - 'std::basic_string<char,std::char_traits<char>,std::allocator<char>>::c_str':非标准语法;使用 '&' 创建指向成员的指针

我正在尝试创建一个可以读取和编译opengl顶点和片段着色器文件的函数,但是我收到了这个错误:'std::basic_string,std::allocator>::c_str':non-standardsyntax;use'&'tocreateapointertomember我不太确定如何修复它。这是我的代码:GLuintshader_load(constGLchar*vertex,constGLchar*fragment){std::stringver=file_read_all(vertex);std::stringfrag=file_read_all(fragment);con

c++ - 为什么在 C++17 中使用十六进制浮点常量?

C++17添加十六进制浮点常量(floatingpointliteral)。为什么?举几个例子来说明好处如何。 最佳答案 float以2为基数存储在x86/x64处理器中,而不是以10为基数:https://en.wikipedia.org/wiki/Double-precision_floating-point_format.由于无法准确表示许多十进制float,例如十进制0.1可以表示为0.1000000000000003或0.0999999999999997-任何具有足够接近十进制0.1的基数2表示形式。由于这种不精确性,例如

零附近的 C++ 浮点比较与 Gtest 失败

我们为我的一个单元测试苦苦挣扎了很长一段时间。在调查过程中,我们找到了根本原因,这似乎是float的比较(参见以下代码片段,我简化了计算但仍然失败)。TEST_F(MyFloatTest,thisOneDoesFail){constfloattoCompare=0.2f-1.0f+0.9f;EXPECT_FLOAT_EQ(toCompare,0.1f);}结果是:Actual:0.1Expected:toCompareWhichis:0.099999964虽然有一些数值数学背景,但我们仍然无法弄清楚为什么这个测试失败了,而使用std::numerical_limits::epsilon